[アップデート]Amazon Bedrock Guardrailsでマルチモーダルな毒性検出をサポートしました (プレビュー) #AWSreInvent

データ事業本部 インテグレーション部 機械学習チームの鈴木です。

re:Invent2024のキーノートのうち、Dr. Swami Sivasubramanian Keynoteで、Amazon Bedrock GuardrailsのMultimodal toxicity detectionのプレビュー提供が発表されました！

以下のAWSブログでも紹介されています。

https://aws.amazon.com/jp/blogs/aws/amazon-bedrock-guardrails-now-supports-multimodal-toxicity-detection-with-image-support/

マルチモーダルな有害・危険なコンテンツの検出機能

Guardrailsによる有害・危険なコンテンツのブロックは今年の春にGAになっていましたが、テキストを対象としたものでした。使い方については以下のブログに分かりやすくまとめられているのでご紹介します。

https://dev.classmethod.jp/articles/guardrails-for-amazon-bedrock-general-availability/

今回のプレビュー提供では、画像に対する毒性検出が新たにサポートされるようになりました。

対処できるカテゴリはテキストコンテンツに対するもののうち一部のようです。

東京リージョンでも利用可能です。

おわりに

Amazon Bedrock GuardrailsのMultimodal toxicity detectionとして、プレビュー提供で画像に対するフィルタリング機能が発表されたご紹介でした！